Sự xuất hiện của tàu khu trục, và sự phát triển của nó cho đến Chiến tranh thế giới thứ hai, có liên quan đến sự phát minh ra ngư lôi tự hành vào những năm 1860. Hải quân của một quốc gia giờ đây có khả năng tiêu diệt một hạm đội tàu chiến của đối phương bằng cách chỉ sử dụng máy phóng bằng hơi nước mà từ đó các ngư lôi có thể được thả xuống. Các tàu nhỏ chạy nhanh có trang bị ngư lôi được chế tạo, và được đặt tên là tàu phóng lôi (còn được gọi là phóng pháo hạm, tàu phóng ngư lôi hay ngư lôi đỉnh), và chúng được phát triển vào khoảng thập niên 1880 thành những tàu loại nhỏ tải trọng 50 đến 100 tấn, đủ nhanh để vượt qua các tàu tuần tiễu đối phương.

Lúc đầu, mối đe dọa của chúng đối với một hạm đội chiến đấu được xem chỉ tồn tại khi đang thả neo, nhưng khi xuất hiện các ngư lôi nhanh hơn và có tầm xa hơn thì mối đe dọa được mở rộng sang những tàu đang hoạt động trên biển. Một phản ứng đối phó với mối đe dọa mới này là việc đóng các tàu đánh chặn nhanh hơn và có hỏa lực mạnh hơn gọi là "tàu đón đầu" để hộ tống hạm đội chiến đấu trên biển. Chúng cần có sức chịu đựng và có khả năng hoạt động trên biển tương đương những chiếc khác trong hạm đội; và khi chúng càng ngày càng trở nên to lớn như cần thiết thì chúng được gọi tên chính thức là torpedo boat destroyer (tàu tiêu diệt tàu phóng lôi), rồi không bao lâu sau đó được gọi rút gọn là destroyer, mà tiếng Việt tương ứng là tàu khu trục (tiếng Pháp:contre-torpilleur, tiếng Ý: cacciatorpediniere, tiếng Tây Ban Nha: Contratorpedero và tiếng Ba Lan: kontrtorpedowiec).

Một khi các tàu khu trục trở nên có giá trị hơn chỉ là "tàu đón đầu" bảo vệ một khu neo tàu, chúng được nhận ra là cũng rất lý tưởng để thực hiện vai trò của chính các tàu phóng lôi, vì thế chúng được trang bị các ống phóng ngư lôi cũng như pháo. Vào lúc đó, và thậm chí trong Chiến tranh thế giới thứ hai, nhiệm vụ duy nhất của các tàu khu trục là bảo vệ hạm đội chiến đấu của chúng khỏi các cuộc tấn công bằng ngư lôi của đối thủ, và tiến hành các cuộc tấn công tương tự (lợi dụng tốc độ cao và tính cơ động tấn công bằng ngư lôi) vào các thiết giáp hạm đối phương. Nhiệm vụ bảo vệ các đoàn tàu vận tải vẫn còn là chuyện của tương lai.

Một phát triển quan trọng đến vào năm 1884 với chiếc Swift,[4] một tàu phóng lôi lớn trang bị sáu pháo 47 mm bắn nhanh và ba ống phóng ngư lôi. Cho dù không đủ nhanh để đối đầu với các tàu phóng lôi một cách hiệu quả, nó có đủ hỏa lực để đối phó với quân địch.

Chiến hạm Kotaka năm 1885 "là chiếc tiên phong báo trước cho các tàu khu trục diệt tàu phóng lôi xuất hiện một thập niên sau đó".[5] Được thiết kế theo đặc tính của Nhật Bản và đặt hàng tại Xưởng đóng tàu Yarrow của Vương quốc Anh năm 1885, nó được tháo rời để được đưa đến Nhật Bản, nơi nó được lắp ráp và hạ thủy năm 1887. Nó được trang bị 4 pháo 37 mm (1 pounder) bắn nhanh và sáu ống phóng ngư lôi, đạt được tốc độ 35 km/h (19 knot); và với trọng lượng 203 tấn, nó là một tàu phóng lôi lớn nhất từng được thiết kế. Trong những lần chạy thử năm 1889, Kotaka chứng tỏ rằng nó có thể đi xa hơn vai trò phòng thủ duyên hải, và có khả năng tháp tùng các hạm tàu lớn ngay cả khi biển động. Xưởng đóng tàu Yarrow, nơi đóng từng bộ phận cho Kotaka, cho rằng "Nhật Bản đã phát minh ra tàu khu trục một cách hiệu quả".[6]

Ngay sau khi Kotaka được đặt đóng, Fernando Villaamil, sĩ quan thứ hai của Bộ Hải quân Tây Ban Nha nơi ông đảm trách việc phát triển khái niệm về một loại tàu thiết kế mới để chống các tàu phóng lôi,[7] đặt đóng một tàu phóng lôi lớn vào tháng 11 năm 1885 tại Xưởng James & George Thompson ở Clydebank, cách không xa nơi mà Xưởng đóng tàu Yarrow sẽ được chuyển từ London tới hai mươi năm sau đó. Chiếc tàu được đặt tên Destructor, được đặt lườn vào cuối năm đó, hạ thủy vào năm 1886, và được đưa vào phục vụ năm 1887. Trọng lượng rẽ nước của nó là 380 tấn, và nó được trang bị với một pháo Hontoria 90 mm, bốn pháo Nordenfelt 57 mm, hai pháo Hotchkiss 37 mm và 3 ống phóng ngư lôi Schwarzkopf. Thủy thủ đoàn đầy đủ là 60 người. Ở góc độ vũ khí trang bị, tốc độ (22,5 knot khi chạy thử) và kích cỡ, một thiết kế đặc biệt để săn đuổi các tàu phóng lôi và khả năng hoạt động ngoài biển khơi, Destructor được xem rộng rãi là tàu khu trục đầu tiên từng được đóng.[8][9]

Destructor của Tây Ban Nha được cho là đã có ảnh hưởng đến thiết kế và khái niệm của các tàu khu trục được Hải quân Vương quốc Anh phát triển sau này.[10][11]

Sau đó không lâu, Vương quốc Anh bắt đầu những thử nghiệm với các "tàu diệt tàu phóng lôi" Rattlesnake, một lớp gồm có 17 tàu phóng lôi lớn - những tiền thân đầu tiên của các tàu khu trục được đóng trọn một lớp, hơn là những chiếc riêng lẻ. Khi chạy thử máy, Rattlesnake đã chứng tỏ tốc độ nhanh hơn các tàu phóng lôi, nhưng không đủ nhanh để trở nên có tính quyết định.

Tàu đầu tiên mang tên chính thức như "tàu diệt tàu phóng lôi" (TBD: Torpedo boat destroyer) là lớp Daring và lớp Havock, mỗi lớp gồm hai chiếc của Hải quân Hoàng gia, được phát triển năm 1892 dưới quyền của Thứ trưởng Hải quân mới được bổ nhiệm, Chuẩn Đô đốc "Jackie" Fisher. Daring và Decoy được đặt hàng vào ngày 27 tháng 6 năm 1892 từ hãng đóng tàu John I. Thornycroft & Company tại Chiswick, trong khi Havock và Hornet được đặt hàng năm ngày sau đó cho hãng Yarrow tại Poplar. Tất cả đều được hạ thủy trong những năm 1893-1894. Mỗi chiếc được trang bị một pháo 12 pounder (76 mm), ba pháo 6 pounder (57 mm), và ba ống phóng ngư lôi 460 mm. Nó cũng có tầm hoạt động và tốc độ để hoạt động hiệu quả cùng một hạm đội chiến đấu.

Hải quân Pháp, lực lượng sử dụng nhiều tàu phóng lôi, đã đóng tàu khu trục đầu tiên của họ vào năm 1899 với lớp 'torpilleur d'escadre' Durandal.

Hoa Kỳ đưa vào hoạt động tàu khu trục đầu tiên của họ là USS Bainbridge, "Tàu khu trục số 1", vào năm 1902, và đến năm 1906 họ đã có tổng cộng 16 tàu khu trục đang phục vụ.